You don't need long context
你不需要长上下文：频繁压缩支持短上下文智能体
🧭 Agent 长上下文压缩与语义状态 ★ 深度解读
NVIDIA
频繁上下文压缩与选择性读取，使长程/长输入任务无需长上下文，准确率基本持平且成本大降
📌 工作参考价值（4 点）
- 在电商推荐/搜索 Agent 的工作流中，将用户会话状态压缩为一段自然语言「semantic state」，每次调用大模型只携带任务描述 + 当前状态，不保留全量对话历史；线上可显著节省 KV cache 和 decode 成本，适合需要多轮筛选/比价的购物助手。
- 对长用户历史、商品详情、评论、规则文档等长输入，用工具化 selective reading：把长文档落在文件系统或检索索引，通过 grep/sed/head 或向量检索按需取证据，避免全量入上下文；可结合 RAG 实现“按需读”，比直接塞 100K 文档更可控。
- 采用 EoCC 式阈值压缩：设定上下文阈值（参考 12K–36K），触发时让模型只保留硬约束、用户偏好、未完成动作和已发现证据，重启新对话；压缩提示要约束长度并聚焦决策相关信息，防止信息丢失。
- 在评测 Agent 时增加效率指标：不只报准确率，同时统计 peak context length、total tokens、每任务成本；可以尝试 single-action compaction，把长程任务建模为状态转移，验证在业务场景是否同样成立。